想象一个未来并非固定路径，而是闪烁不定的可能性之网的世界。掌握 随机性的动态 就是弥合随机演化——系统在状态间迁移的方式——与这些转换中固有的“新奇性”或“意外”量化之间的鸿沟。
1. 状态转移的结构
考虑天气的逻辑。如果我们假设今天的降雨是影响明天的唯一因素，我们就进入了马尔可夫动力学的领域。这在 示例 2a中得到了优雅的体现：
假设明天是否会下雨仅取决于今天是否下雨。如果今天下雨，那么明天下雨的概率为 $\alpha$；如果今天不下雨，那么明天下雨的概率为 $\beta$。
这创建了一个转移矩阵 $P$，我们可以通过 Chapman-Kolmogorov 恒等式中得到了优雅的体现：
$$P_{ij}^{(2)} = \sum_{k=0}^{M} P_{kj}P_{ik}$$
2. 到达的节奏
randomness 不仅关乎 去往何方 我们前往何处，更关乎 何时 事件发生的时间。在泊松过程中，我们追踪离散到达（如地震或放射性衰变）随时间的变化。
- 到达间隔时间： 对于泊松过程，令 $T_1$ 表示第一个事件发生的时间。对于 $n > 1$，令 $T_n$ 表示第 $(n-1)$ 个事件与第 $n$ 个事件之间的时间间隔。
- 平稳性： 序列 $\{T_n, n=1, 2, \ldots\}$ 由独立的指数变量组成，其分布由速率 $\lambda$ 决定。
3. 信息即意外的减少
信息论由克劳德·香农开创，用于量化不确定性。它建立在优美的代数基础之上，特别是 公理 4中得到了优雅的体现：
公理 4：$S(pq) = S(p) + S(q)$，其中 $0 < p \le 1, 0 < q \le 1$
该公理表明，两个独立事件的意外程度等于它们各自意外程度之和，直接导出了 香农熵中得到了优雅的体现：
$$H(X) = -\sum_{i=1}^n p_i \log_2(p_i)$$
🎯 核心洞见
动态定义了游戏规则（转移概率），而熵衡量的是实际玩游戏时我们能学到多少（信息增益）。如果我们的天气模型中 $\alpha=1$ 且 $\beta=1$，系统就是确定性的；熵为零，因为‘新闻’并未提供任何新信息。